iT邦幫忙

2024 iThome 鐵人賽

DAY 11
0

本篇要繼續來介紹另一個LangChain中很重要的概念,就是Agent!


Agent

Agent是LangChain中的核心概念,可以把他想成一個「智能協調者」,能夠根據任務需求決定應該執行哪些操作。Agent本身並不是簡單的一個model,而是一個結合了多種功能、多步驟決策能力,通過理解user的input,使用不同的tool來完成任務。
那我們接著就來聊聊一些Agent重要的概念。

LLM

在Agent概念中,llm就是Agent的「大腦」和核心決策部分,Agent就是靠 LLM 根據input,來判斷在特定情況下應該採取什麼行動,例如需要調用哪一個工具、如何處理數據等等。

Tool

Tool 是 Agent 可用來執行的操作,像是呼叫API、執行function、撈資料庫、計算數學運算等。Agent並不會直接執行這些操作,而是通過調用Tool來完成工作。一句話來說,Tool提供了Agent實際執行操作的能力

AgentExecutor

AgentExecutor是LangChain中的一個class,可以創建一個根據input內容動態執行多種操作的Agent,讓大語言模型(LLM)在處理任務時自動選擇執行各種不同的操作,像是執行某function、call api等等。
簡單白話來講,這個Class就是能將大語言模型當作一個決策系統,也就是決定執行什麼操作的大腦,這個決策系統能夠做到根據user的input,以及我們事先設定好的各種操作(也就是工具),去決定要去觸發哪種操作。

示意圖:
https://ithelp.ithome.com.tw/upload/images/20240925/20160630bpUQ7N209r.png
圖源

在開始實作之前,我們再來講講AgentType

AgentType

Agent都會選擇一種AgentType作為他的運行方式。AgentType決定了Agent的邏輯、與工具的互動方式、以及如何處理input和output。簡單來說,AgentType 為 Agent 提供了一套運行規則,讓它知道在不同情況下應該如何行動。
LangChain中有多種AgentType讓我們應對各種狀況需求,例如:
Zero-Shot React Description、ReAct Docstore、Self-Ask with Search、Conversational React Description and more...,之後我們也會介紹幾種並使用看看。

下一篇我們就會開始實作Agent了!


上一篇
<玩轉大語言模型> LangChain: Chain 當我們鍊在一起
下一篇
<玩轉大語言模型> LangChain: AgentType(Zero-Shot React Description)
系列文
LangChain、RAG、HuggingFace: 玩轉大語言模型15
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言